Pytorch中dilation(Conv2d)参数详解

您所在的位置:网站首页 hi sweetie 翻译 Pytorch中dilation(Conv2d)参数详解

Pytorch中dilation(Conv2d)参数详解

#Pytorch中dilation(Conv2d)参数详解| 来源: 网络整理| 查看: 265

目录

一、Conv2d

 二、Conv2d中的dilation参数

一、Conv2d

首先我们看一下Pytorch中的Conv2d的对应函数(Tensor通道排列顺序是:[batch, channel, height, width]):

torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros')

in_channels参数代表输入特征矩阵的深度即channel,比如输入一张RGB彩色图像,那in_channels = 3;out_channels参数代表卷积核的个数,使用n个卷积核输出的特征矩阵深度即channel就是n;kernel_size参数代表卷积核的尺寸,输入可以是int类型如3 代表卷积核的height = width = 3,也可以是tuple类型如(3,  5)代表卷积核的height = 3,width = 5;stride参数代表卷积核的步距默认为1,和kernel_size一样输入可以是int类型,也可以是tuple类型,这里注意,若为tuple类型即第一个int用于高度尺寸,第二个int用于宽度尺寸; padding参数代表在输入特征矩阵四周补零的情况默认为0,同样输入可以为int型如1 代表上下方向各补一行0元素,左右方向各补一列0像素(即补一圈0),如果输入为tuple型如(2, 1) 代表在上方补两行下方补两行,左边补一列,右边补一列。可见下图,padding[0]是在H高度方向两侧填充的,padding[1]是在W宽度方向两侧填充的;

 二、Conv2d中的dilation参数

        以上大家应该都比较熟悉,今天想说的是其中的dilation这个参数,可以看到其默认值为1。先贴一段官方文档中对该参数的表述:

        controls the spacing between the kernel points;

         它有点类似于stride,实际含义为:每个点之间有空隙的过滤器,即为dilation。例如,在一个维度上,一个大小为3的过滤器w会对输入的x进行如下计算:w[0] * x[0] + w[1] * x[1] + w[2] * x[2]。若dilation = 1,过滤器会计算:w[0] * x[0] + w[1] * x[2] + w[2] * x[4];换句话说,在不同点之间有一个1的差距。(Pytoch中dilation默认等于1,但是实际为不膨胀,也就是说设置dilation = 2时才会真正进行膨胀操作)

        这在某些情况下与0-dilated滤波器一起使用非常有用,因为它允许你用更少的层来更积极地合并整个输入的空间信息。例如,如果你把两个3 x 3的CONV层叠在一起,那么可以说,第二层的神经元是一个5x5的输入补丁的函数(我们会说这些神经元的有效感受野是5x5)。如果我们使用dilation的卷积,那么这个有效感受野会增长得更快。

        这种情况实际为Pytorch中,dilation = 2的情况。

        特别注意:在Pytorch中,dilation = 1等同于没有dilation的标准卷积。

References:

https://pytorch.org/docs/stable/generated/torch.nn.Conv2d.html?highlight=conv2d#torch.nn.Conv2d

https://blog.csdn.net/qq_37541097/article/details/102926037

https://cs231n.github.io/convolutional-networks/

https://stackoverflow.com/questions/43474072/default-dilation-value-in-pytorch

https://blog.csdn.net/qq_37541097/article/details/102926037

https://github.com/vdumoulin/conv_arithmetic/blob/master/README.md



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3